|
|
1.
结合注意力机制的长文本分类方法
卢玲, 杨武, 王远伦, 雷子鉴, 李莹
计算机应用
2018, 38 (5):
1272-1277.
DOI: 10.11772/j.issn.1001-9081.2017112652
新闻文本常包含几十至几百条句子，因字符数多、包含较多与主题无关信息，影响分类性能。对此，提出了结合注意力机制的长文本分类方法。首先将文本的句子表示为段落向量，再构建段落向量与文本类别的神经网络注意力模型，用于计算句子的注意力，将句子注意力的均方差作为其对类别的贡献度，进行句子过滤，然后构建卷积神经网络（CNN）分类模型，分别将过滤后的文本及其注意力矩阵作为网络输入。模型用max pooling进行特征过滤，用随机dropout防止过拟合。实验在自然语言处理与中文计算（NLP&CC）评测2014的新闻分类数据集上进行。当过滤文本长度为过滤前文本的82.74%时，19类新闻的分类正确率为80.39%，比过滤前文本的分类正确率超出2.1%，表明结合注意力机制的句子过滤方法及分类模型，可在句子级信息过滤的同时提高长文本分类正确率。
参考文献 |
相关文章 |
多维度评价
|
|
